M$^3$Prune: Hierarchical Collaborative Pruning for Efficient Multi-Modal Multi-Agent Retrieval-Augmented Generation
M³Prune:面向多模态多智能体 RAG 的分层通信剪枝
🧭 多智能体协作效率优化 ★ 深度解读
Hefei University of Technology · East China Normal University · China University of Petroleum · Guangdong University of Finance and Economics · Alibaba Group
通过分层学习稀疏通信拓扑剪枝多智能体冗余交互,在提升多模态 RAG 准确率的同时大幅降低 token 开销
📌 工作参考价值(4 点)
- 在多智能体推荐或对话系统中,可直接引入可学习的软邻接矩阵(Gumbel-Softmax)对 Agent 间的通信权重建模,用策略梯度在训练时自动发现关键通信链路,替代固定拓扑。
- 分层剪枝策略(先剪模态内冗余,再剪模态间冗余)可迁移至多源信息(如商品图文、评论)的智能体协作,减少跨模态噪声,提升决策效率。
- 渐进式剪枝中的退化剪枝率 \(p^{(t)} = p^{(t-1)} \cdot \exp(-t/T)\) 和核范数正则项可作为通信成本控制模板,直接用于生产级多 Agent 系统的持续优化,避免一次性剪枝带来的不稳定。
- 模态对齐损失 \(L_{align}\) 可借鉴于推荐中多模态特征融合的对齐训练,显式保持图文 Agent 间语义一致性,防止因剪枝导致的协同失效。